Openai ограничава ролята на Chatgpt в помощта на психичното здраве

Повече хора се обръщат към изкуствен интелект за поддръжка, даже за препоръки за психологично здраве. Лесно е да разберете за какво: Инструменти като Chatgpt са безвъзмездни, бързи и постоянно разполагаем. Но психологичното здраве е внимателен проблем и AI не е оборудван да се оправи с сложността на действителния прочувствен дистрес.

За да се оправи с възходящите проблеми, OpenAI вкара нови ограничения за сигурност за Chatgpt. Тези актуализации ще лимитират по какъв начин чатботът реагира на поръчки, свързани с психологичното здраве. Целта е да се попречи на потребителите да станат прекомерно подвластни и да ги насърчат да търсят подобаваща грижа. Openai също се надява да понижи риска от нездравословни или подвеждащи отговори посредством тези промени.

Регистрирайте се за моя безвъзмезден отчет за кибергуй
Вземете най -добрите си софтуерни препоръки, незабавни сигнали за сигурност и изключителни покупко-продажби, доставени напряко във вашата пощенска кутия. Плюс това, ще получите неотложен достъп до моето висшо управление за оцеляване на измами - гратис, когато се присъедините към моя

Екранна фотография демонстрира на нашия интерфейс на прозорците на чат. или прочувствена взаимозависимост. " Един образец, Chatgpt валидира убеждението на потребителя, че радио сигналите влизат през стените поради фамилията им. В друга, тя сякаш предизвиква тероризма.

Тези редки, само че съществени произшествия провокираха угриженост. Openai в този момент преразглежда по какъв начин образова своите модели за понижаване на „ сикофанството “ или прекалено съглашение и хвалебствие, които биха могли да засилят нездравословните убеждения. 

екранна фотография на подкана, питаща дали Chatgpt може да даде препоръки за психологично здраве (Kurt " Cyberguy " Knutsson)

Какви нови защитни ограничения имат на място да си създадат почивки по време на дълги диалози. Той също по този начин ще избегне предлагането на съответни препоръки по надълбоко персонални проблеми. Вместо това, чатботът ще помогне на потребителите да разсъждават, като задават въпроси и оферират плюсове и минуси, без да се преструват на терапевт.

Openai съобщи: „ Докато рядко, ние продължаваме да подобряваме нашите модели и да създаваме принадлежности за по-добро разкриване на признаци на душевен или прочувствен дистрес, тъй че чатгптът може да отговори по подобаващ метод и да насочи хората, основани на доказателства, когато са нужни. В международен мащаб за основаване на обновени насоки за оценка на комплицирани взаимоотношения. Консултативна група, формирана от специалисти по психологично здраве, юношески бранители и откриватели за взаимоотношение сред индивида и компютър, оказва помощ да се оформят тези промени. OpenAI says it wants input from clinicians and researchers to refine its safeguards further.

Screenshot of a user asking ChatGPT to " Cheer me up with a joke. " (Kurt " CyberGuy " Knutsson)

Your private conversations with ChatGPT are not legally protected

OpenAI CEO Sam Altman recently raised red flags about AI privacy. " Ако отидете да говорите с Chatgpt за вашите най -чувствителни неща и тогава има правосъден развой или каквото и да е, ние бихме могли да се наложи да го създадем. И мисля, че това е доста прецакано ", сподели той. правна привилегия или дискретност. Внимавайте какво споделяте.

Какво значи това за вас

Ако се обръщате към Chatgpt за прочувствена поддръжка, разберете нейните граници. Chatbot може да ви помогне да обмислите проблеми, да задавате управителни въпроси или да симулирате диалог, само че не може да размени подготвените експерти по психологично здраве.

Ето какво да имате поради:

Промените на Openai са стъпка към по-безопасни взаимоотношения, само че те не са лекуване. Психичното здраве изисква човешка връзка, образование и съпричастност - Нещата, които никой не може да повтори изцяло.

Вземете моята тест: Колко безвредна е вашата онлайн сигурност?

Мислите, че вашите устройства и данни са в действителност предпазени? Вземете този бърз тест, с цел да видите къде стоят вашите цифрови привички. От пароли до Wi -Fi настройки ще получите персонализирана разбивка на това, което вършиме вярно - и какво се нуждае от усъвършенстване. Вземете моята викторина тук:

Ключовите поемания на Курт

Докато Chatgpt е потребен инструмент, това надалеч не е сурогат на човешкото създание, даже и с това, което прибавя благоприятни условия, само че към момента липсва същинска съпричастност, преценка и прочувствено схващане. Защитените потеглят дълъг път към справяне с опасенията по отношение на етичните и психическите последствия на AI. Хубаво е, че Openai е наясно с това, тъй като това е единствено началото.  За да отбрани същински потребителите, компанията ще би трябвало да продължи да се развива по какъв начин Chatgpt води до прочувствено чувствителни диалози.

Мислите ли, че хората би трябвало да употребяват AI за психологично здраве? Уведомете ни, като ни пишете на

Регистрирайте се за моя безвъзмезден доклад за Cyberguy
Вземете най -добрите си софтуерни препоръки, незабавни сигнали за сигурност и изключителни покупко-продажби, доставени напряко във вашата пощенска кутия. Плюс това, ще получите неотложен достъп до моето управление за оцеляване на измамата - гратис, когато се присъедините към моя

Copyright 2025 CyberGuy.com.  Всички права непокътнати.  

Kurt " Cyberguy " Knutsson е награден механически публицист, който има дълбока обич към технологиите, оборудванията и джаджи, които вършат живота по-добър с приноса му за Fox News & Fox Business, започващи заран на " Fox & Friends ". Имате механически въпрос? Вземете безплатния бюлетин на Kurt Cyberguy, споделете гласа си, концепция за история или коментар на cyberguy.com.